Министерство информационных технологий Индии приказало компании X Илона Маска немедленно внедрить технические и процедурные изменения в свой AI-чат-бот Grok после сообщений пользователей и законодателей о генерации непристойного контента. Приказ, изданный в пятницу, обязывает X ограничить Grok в создании контента, включающего наготу, сексуализацию, материалы сексуального характера или другой незаконный контент.

Министерство дало X 72 часа на предоставление отчета о принятых мерах с подробным описанием шагов, предпринятых для предотвращения размещения или распространения контента, считающегося непристойным, порнографическим, вульгарным, неприличным, сексуально откровенным, педофильным или иным образом запрещенным индийским законодательством. TechCrunch ознакомился с приказом, в котором предупреждается, что несоблюдение может поставить под угрозу защиту X в рамках "safe harbor", которая предоставляет юридический иммунитет от ответственности за контент, создаваемый пользователями, в соответствии с индийским законодательством.

Действия последовали за опасениями, высказанными пользователями, которые поделились примерами того, как Grok предлагалось изменить изображения людей, в основном женщин, чтобы они выглядели так, будто на них надеты бикини. Индийский парламентарий Приянка Чатурведи подала официальную жалобу по этому поводу.

Grok, запущенный X в прошлом году, представляет собой AI-чат-бот, предназначенный для ответов на вопросы и генерации текста. Он использует большую языковую модель (LLM), тип алгоритма искусственного интеллекта, который использует методы глубокого обучения и огромные наборы данных для понимания и генерации человеческого языка. Инцидент подчеркивает проблемы, связанные с обеспечением соответствия моделей AI этическим и правовым стандартам, особенно в отношении генерации контента и потенциального злоупотребления.

Директива правительства Индии подчеркивает растущий контроль за AI-технологиями и платформами социальных сетей. Защита "safe harbor", установленная в соответствии со статьей 79 Закона об информационных технологиях 2000 года, обеспечивает платформам важный щит от ответственности за контент, создаваемый пользователями, но эта защита зависит от соблюдения индийских законов и правил.

Приказ Министерства информационных технологий требует от X продемонстрировать конкретные шаги, предпринятые для решения выявленных проблем с Grok. Это включает в себя внедрение технических мер защиты для предотвращения генерации неприемлемого контента и установление четких процедур для модерации контента и отчетности пользователей. В отчете о принятых мерах, вероятно, будут подробно описаны конкретные алгоритмы, фильтры и процессы проверки человеком, которые X использует для соблюдения директивы.

Инцидент и последующие действия правительства могут иметь более широкие последствия для AI-индустрии. Это подчеркивает необходимость для разработчиков уделять приоритетное внимание безопасности и этическим соображениям при проектировании и развертывании моделей AI. Это также сигнализирует о более активном регулирующем подходе правительства Индии к AI и платформам социальных сетей, что потенциально приведет к более строгим требованиям соответствия и повышению ответственности. Исход этой ситуации может создать прецедент для того, как другие страны регулируют генерацию контента на основе AI и ответственность платформ.